回答:我是做JAVA后台开发的，目前为止最多处理过每天600万左右的数据！数据不算特别多，但是也算是经历过焦头烂额，下面浅谈下自己和团队怎么做的？后台架构:前置部门:负责接收别的公司推过来的数据，因为每天的数据量较大，且分布不均，使用十分钟推送一次报文的方式，使用batch框架进行数据落地，把落地成功的数据某个字段返回给调用端，让调用端验证是否已经全部落地成功的，保证数据的一致性！核心处理:使用了spr...
李增田
|
1355人阅读
回答:首先明确下定义：计算时间是指计算机实际执行的时间，不是人等待的时间，因为等待时间依赖于有多少资源可以调度。首先我们不考虑资源问题，讨论时间的预估。执行时间依赖于执行引擎是 Spark 还是 MapReduce。Spark 任务Spark 任务的总执行时间可以看 Spark UI，以下图为例Spark 任务是分多个 Physical Stage 执行的，每个stage下有很多个task，task 的...
silenceboy
|
1039人阅读
回答:个人的观点，这种大表的优化，不一定上来就要分库分表，因为表一旦被拆分，开发、运维的复杂度会直线上升，而大多数公司是欠缺这种能力的。所以MySQL中几百万甚至小几千万的表，先考虑做单表的优化。单表优化单表优化可以从这几个角度出发：表分区：MySQL在5.1之后才有的，可以看做是水平拆分，分区表需要在建表的需要加上分区参数，用户需要在建表的时候加上分区参数；分区表底层由多个物理子表组成，但是对于代码来...
周国辉
|
1843人阅读
回答:使用SQL处理数据时，数据会在数据库内直接进行处理，而且sql处理本身可以对sql语句做优化，按照最优的策略自动执行。使用Java处理时，需要把数据从数据库读入到Java程序内存，其中有网络处理和数据封装的操作，数据量比较大时，有一定的延迟，所以相对来说数据处理就慢一些。当然，这个只是大体示意图，实际根据业务不同会更复杂。两者侧重的点不同，有各自适合的业务领域，需要根据实际情况选用合适的方式。
stefanieliang
|
1944人阅读
...者必看，吸取教训啊！ 原文：Redis 的 KEYS 命令引起 RDS 数据库雪崩，RDS 发生两次宕机，造成几百万的资金损失 作者：陈浩翔 Fundebug经授权转载，版权归原作者所有。 最近的互联网线上事故发生比较频繁，2018 年 9 月 19 号顺丰...
...者必看，吸取教训啊！ 原文：Redis 的 KEYS 命令引起 RDS 数据库雪崩，RDS 发生两次宕机，造成几百万的资金损失 作者：陈浩翔 Fundebug经授权转载，版权归原作者所有。 最近的互联网线上事故发生比较频繁，2018 年 9 月 19 号顺丰...
数据库是计算机基础三大软件其中之一，相比于操作系统这类更容易收到关注的表面软件，数据库就像是被埋藏在深海里看不见的冰山，虽然存在但很少有人为之侧目。数据库又叫做数据管理系统，是处理的数据按...
一、需求 有赞大数据技术应用的早期，我们使用 Sqoop 作为数据同步工具，满足了 MySQL 与 Hive 之间数据同步的日常开发需求。 随着公司业务发展，数据同步的场景越来越多，主要是 MySQL、Hive 与文本文件之间的数据同步，Sqoop 已...
...外卖、点餐、收银、会员管理、进销存等系统服务，并将数据实时传达云端。我们是客如云的大数据基础架构组，负责公司的大数据架构和建设工作，为公司提供大数据基础数据服务。 业务发展遇到的痛点 随着公司业务架构越...
...开发环节需要处理号几个地方，才能更轻松的扩展： 1，数据库单独运行 这个最简单，相信只要用到了数据库的网站，大部分都是已经可以轻松实现网站和数据库分离的模式。之所以强调这点，就是因为，网站真的到了访问量大...
...开发环节需要处理号几个地方，才能更轻松的扩展： 1，数据库单独运行 这个最简单，相信只要用到了数据库的网站，大部分都是已经可以轻松实现网站和数据库分离的模式。之所以强调这点，就是因为，网站真的到了访问量...
...开发环节需要处理号几个地方，才能更轻松的扩展： 1，数据库单独运行 这个最简单，相信只要用到了数据库的网站，大部分都是已经可以轻松实现网站和数据库分离的模式。之所以强调这点，就是因为，网站真的到了访问量...
ChatGPT和Sora等AI大模型应用，将AI大模型和算力需求的热度不断带上新的台阶。哪里可以获得...
大模型的训练用4090是不合适的，但推理（inference/serving）用4090不能说合适，...
图示为GPU性能排行榜，我们可以看到所有GPU的原始相关性能图表。同时根据训练、推理能力由高到低做了...
马龙驹
李涛
